两个量一起变,
到底是谁跟着谁?
先看散点图,再谈公式。
$\chi^2$ 越大越不独立,
相关不等于因果。
成对数据的统计分析
—— 相关 · 回归 · 独立性检验 ——
1成对数据与散点图先看图
把两个变量的观测值成对记录:$(x_1,y_1),\dots,(x_n,y_n)$,再描到平面上。
正相关 $r>0$
负相关 $r\lt 0$
不相关 $r\approx 0$
顺序:画散点图 → 算 $r$ → 判断是否线性 → 再建模。
2样本相关系数 $r$相关性
$$r=\frac{\sum\limits_{i=1}^{n}(x_i-\bar x)(y_i-\bar y)} {\sqrt{\sum(x_i-\bar x)^{2}}\ \sqrt{\sum(y_i-\bar y)^{2}}}$$ 手算化简式: $$r=\frac{\sum x_iy_i-n\bar x\bar y}{\sqrt{(\sum x_i^{2}-n\bar x^{2})(\sum y_i^{2}-n\bar y^{2})}}$$
例:散点严格落在一条斜率为正的直线上,则 $r=1$(所有点共线时 $|r|=1$)。
r 的本质:两组数据中心化、标准化后取"夹角余弦"。
所以 $|r|\le 1$ 是数学保证,算不出 $1.2$。
$r=\dfrac{\sum(x_i-\bar x)(y_i-\bar y)}{\sqrt{\sum(x_i-\bar x)^2\sum(y_i-\bar y)^2}}$
$-1\le r\le 1$;$r>0$ 正相关,$r\lt 0$ 负相关
强弱判断:
$|r|\ge 0.75$ 强相关;$0.3\le |r|\lt 0.75$ 中等;$|r|\lt 0.3$ 弱。
注意:$r$ 只刻画线性相关。
3一元线性回归建模
模型:$Y=bx+a+e$($e$ 为随机误差)
回归方程:$\hat y=\hat bx+\hat a$
$$\hat b=\frac{\sum(x_i-\bar x)(y_i-\bar y)}{\sum(x_i-\bar x)^{2}},\quad \hat a=\bar y-\hat b\,\bar x$$ ① 回归直线必过样本中心点 $(\bar x,\bar y)$;
② 最小二乘最小化的是竖直距离的平方和。
别混:是竖直距离,不是点到直线的垂距。
例:$\bar x=3,\ \bar y=7,\ \hat b=2$,则 $\hat a=7-2\times3=1$,直线过 $(3,7)$。
4列联表与 $\chi^2$独立性
$2\times2$ 列联表(格内是频数)
$Y=1$$Y=2$合计
$X=1$$a$$b$$a+b$
$X=2$$c$$d$$c+d$
合计$a+c$$b+d$$n$
$$\chi^{2}=\frac{n\,(ad-bc)^{2}}{(a+b)(c+d)(a+c)(b+d)}$$
临界值:0.10→2.706 0.05→3.841 0.01→6.635
5独立性检验四步流程
1
提假设 $H_0$:$X$ 与 $Y$ 独立
2
算 $\chi^2$ 代入列联表频数
3
比临界值 与 $x_\alpha$ 比较
4
下结论 按模板表述
结论模板
$\chi^2\ge x_\alpha$:拒绝 $H_0$,推断有关联,犯错概率不超过 $\alpha$。
$\chi^2\lt x_\alpha$:没有充分证据推断有关联。
例:$\chi^2=4.2$,取 $\alpha=0.05$,则 $4.2>3.841$,拒绝 $H_0$,推断有关联,犯错概率不超过 $0.05$。
先看图,再算 $r$;回归直线必过 $(\bar x,\bar y)$;$\chi^2$ 越大越不独立 —— 相关不等于因果。
⚠ 注意事项(踩坑预警!)
  1. 必须先画散点图,再判断是否可用线性模型。
  2. $r$ 只刻画线性相关;$|r|$ 小不代表没关系,可能是非线性。
  3. 回归直线必过 $(\bar x,\bar y)$,可用来验算。
  4. $\chi^2$ 用的是频数(不是频率),四个边缘合计不能代错。
  5. 结论必须带"犯错误的概率不超过 $\alpha$"。
✕ 常见误区(别这么写!)
  1. 认为相关显著就意味因果关系(回归只说明伴随)。
  2. 以为 $\chi^2$ 越大越支持 $H_0$(正好相反:越大越拒绝)。
  3. 以为 $\alpha$ 越小越容易拒绝 $H_0$($\alpha$ 小则临界值大,更难)。
  4. 未拒绝 $H_0$ 就说"证明独立"(只能说证据不足)。
  5. 把最小二乘的"距离"当成垂距(实际是竖直距离)。
尚武筆記